Recently, Transformer has achieved great success in computer vision. However, it is constrained because the spatial and temporal complexity grows quadratically with the number of large points in 3D object detection applications. Previous point-wise methods are suffering from time consumption and limited receptive fields to capture information among points. In this paper, we propose a two-stage hyperbolic cosine transformer (ChTR3D) for 3D object detection from LiDAR point clouds. The proposed ChTR3D refines proposals by applying cosh-attention in linear computation complexity to encode rich contextual relationships among points. The cosh-attention module reduces the space and time complexity of the attention operation. The traditional softmax operation is replaced by non-negative ReLU activation and hyperbolic-cosine-based operator with re-weighting mechanism. Extensive experiments on the widely used KITTI dataset demonstrate that, compared with vanilla attention, the cosh-attention significantly improves the inference speed with competitive performance. Experiment results show that, among two-stage state-of-the-art methods using point-level features, the proposed ChTR3D is the fastest one.

Sockeye 3是神经机器翻译（NMT）的Mockeye工具包的最新版本。现在，基于Pytorch，Sockeye 3提供了更快的模型实现和更高级的功能，并具有进一步的简化代码库。这可以通过更快的迭代，对更强大，更快的模型进行有效的培训以及快速从研究转移到生产的新想法的灵活性，从而实现更广泛的实验。当运行可比较的型号时，Sockeye 3的速度比GPU上的其他Pytorch实现快126％，在CPU上的实现速度高达292％。Sockeye 3是根据Apache 2.0许可发布的开源软件。

计算机断层扫描（CT）使用从身体周围的传感器取出的X射线测量以产生人体的断层图像。如果X射线数据充分采样和高质量，则可以使用传统的重建算法;然而，诸如将剂量减少给患者的问题，或数据采集的几何限制可能导致低质量或不完整的数据。由于噪声和其他伪像，使用传统方法从这些数据重建的图像具有差的质量。本研究的目的是训练单个神经网络，从嘈杂或不完全CT扫描数据重建高质量CT图像，包括低剂量，稀疏视图和有限的角度场景。为了完成这项任务，我们将生成的对冲网络（GaN）作为信号训练，以与CT数据的迭代同步代数重建技术（SART）结合使用。网络包括自我关注块，以模拟数据中的远程依赖性。我们将我们的自我关注GaN进行CT图像重建，包括几种最先进的方法，包括去噪循环GaN，Circle GaN和总变化的校长算法。我们的方法被证明是可以相当的整体性能来圈出GaN，同时优于其他两种方法。

批量归一化（BN）广泛用于现代神经网络，已被证明代表与域相关知识，因此对于跨域任务（如无监督域适应（UDA））无效。现有的BN变体方法在归一化模块中相同信道中的源和目标域知识。然而，跨域跨域的相应通道的特征之间的错位通常导致子最佳的可转换性。在本文中，我们利用跨域关系并提出了一种新颖的归一化方法，互惠归一化（RN）。具体地，RN首先呈现互易补偿（RC）模块，用于基于跨域频道明智的相关性在两个域中获取每个信道的补偿。然后，RN开发互易聚合（RA）模块，以便以其跨域补偿组件自适应地聚合特征。作为BN的替代方案，RN更适合于UDA问题并且可以容易地集成到流行的域适应方法中。实验表明，所提出的RN优于现有的正常化对应物，通过大幅度，并有助于最先进的适应方法实现更好的结果。源代码可在https://github.com/openning07/reciprocal-normalization-for-da上找到。

用于压缩神经网络的非均匀量化策略通常实现的性能比其对应于对应物，即统一的策略，因为其优越的代表性能力。然而，许多非均匀量化方法在实现不均匀量化的权重/激活时忽略了复杂的投影过程，这在硬件部署中引起了不可忽略的时间和空间开销。在这项研究中，我们提出了非均匀致均匀的量化（N2UQ），一种方法，其能够保持非均匀方法的强表示能力，同时硬件友好且有效地作为模型推理的均匀量化。我们通过学习灵活的等距输入阈值来实现这一目标，以更好地拟合潜在的分布，同时将这些实值输入量化为等距输出电平。要使用可学习的输入阈值训练量化网络，我们将广义直通估计器（G-STE）介绍，用于难以应答的后向衍生计算W.r.t.阈值参数。此外，我们考虑熵保持正则化，以进一步降低重量量化的信息损失。即使在这种不利约束的施加均匀量化的重量和激活的情况下，我们的N2UQ也经历了最先进的非均匀量化方法，在想象中达到了0.7〜1.8％，展示了N2UQ设计的贡献。代码将公开可用。

在本文中，我们在短PCCC中呈现点云颜色恒定，这是利用点云的照明色度估计算法。我们利用飞行时间（TOF）传感器捕获的深度信息与RGB传感器刚性安装，并形成一个6D云，其中每个点包含坐标和RGB强度，指出为（x，y，z，r，g，b）。PCCC将注意力架构应用于色彩恒定问题，导出照明矢量点明智，然后制定关于全局照明色度的全局决定。在两个流行的RGB-D数据集上，我们使用照明信息以及新颖的基准延伸，PCCC比最先进的算法获得更低的错误。我们的方法简单且快速，仅需要16 * 16尺寸的输入和超过500 FPS的速度，包括建立点云和净推理的成本。

基于深度学习的模型占主导地位的生产推荐系统的当前景观。此外，近年来目睹了模型规模的指数增长 - 从谷歌的2016年模型，最新的Facebook的型号有10亿个参数，具有12万亿参数。型号容量的每次跳跃都有显着的质量增强，这使我们相信100万亿参数的时代即将来临。然而，即使在工业规模数据中心内，这些模型的培训也在挑战。这种困难是从训练计算的惊人的异质性继承 - 模型的嵌入层可以包括总模型尺寸的99.99％，这是极其内存密集的;虽然其余的神经网络越来越多地计算密集型。为支持培训此类巨大模式，迫切需要有效的分布式培训系统。在本文中，我们通过仔细共同设计优化算法和分布式系统架构来解决这一挑战。具体而言，为了确保培训效率和训练精度，我们设计一种新型混合训练算法，其中嵌入层和密集的神经网络由不同的同步机制处理;然后，我们构建一个名为Persia的系统（短暂的并行推荐培训系统，其中包含混合加速），以支持这种混合培训算法。理论上的示范和实证研究均达到100万亿参数，以证明了波斯的系统设计和实施。我们将Pensia公开使用（在https://github.com/persiamml/persia），以便任何人都能够以100万亿参数的规模轻松培训推荐模型。

使用大规模预先训练的模型剪辑来进行视频文本检索任务（VTR）已成为一个新的趋势，超过以前的VTR方法。虽然，由于视频和文本之间的结构和内容的异质性，所以基于剪辑的模型在训练阶段容易过度拟合，导致检索性能相对较差。在本文中，我们提出了一种多流语料库对准网络，具有专家单栅极（敞开的双孔）和新型双软母损失（DSL）来解决两个异质性。敞篷使用专家混合（MOE）来提取多透视视频表示，包括动作，实体，场景等，然后将它们与文本的相应部分对齐。在此阶段，我们对特征提取模块和特征对准模块进行大规模探索。提出了DSL以避免以前发生的对比方法发生的单向最佳匹配。在批处理中介绍每对的内部内部，DSL用作Reviser以纠正相似度矩阵并实现双重最佳匹配。 DSL易于使用单行代码实现，但显着提高。结果表明，所提出的磁盘和DSL具有强大的效率，并且它们中的每一个能够在MSR-VTT，MSVD和LSMDC等各种基准上单独实现最先进的（SOTA）。此外，通过两个都，性能向大扩展进行了高速扩展，超越了先前的SOTA方法在MSR-VTT中大约4.6 \％R @ 1。

Vision变形金刚（VITS）最近获得了爆炸性的人气，但巨额的计算成本仍然是一个严峻的问题。由于VIT的计算复杂性相对于输入序列长度是二次的，因此用于计算还原的主流范例是减少令牌的数量。现有设计包括结构化空间压缩，该压缩使用逐行缩小的金字塔来减少大型特征映射的计算，并且动态丢弃冗余令牌的非结构化令牌修剪。然而，现有令牌修剪的限制在两倍以下：1）由修剪引起的不完全空间结构与现代深窄变压器通常使用的结构化空间压缩不兼容; 2）通常需要耗时的预训练程序。为了解决局限性并扩大令牌修剪的适用场景，我们提出了Evo-Vit，一种自动激励的慢速令牌演化方法，用于视觉变压器。具体而言，我们通过利用原产于视觉变压器的简单有效的全球课程关注来进行非结构化的案例 - 明智的选择。然后，我们建议使用不同的计算路径更新所选的信息令牌和未表征性令牌，即慢速更新。由于快速更新机制保持空间结构和信息流，因此Evo-Vit可以从训练过程的开始，从训练过程的开始，加速平坦和深窄的结构的Vanilla变压器。实验结果表明，我们的方法显着降低了视觉变压器的计算成本，同时在图像分类上保持了可比性。

Graph Neural Networks (GNNs) have shown satisfying performance on various graph learning tasks. To achieve better fitting capability, most GNNs are with a large number of parameters, which makes these GNNs computationally expensive. Therefore, it is difficult to deploy them onto edge devices with scarce computational resources, e.g., mobile phones and wearable smart devices. Knowledge Distillation (KD) is a common solution to compress GNNs, where a light-weighted model (i.e., the student model) is encouraged to mimic the behavior of a computationally expensive GNN (i.e., the teacher GNN model). Nevertheless, most existing GNN-based KD methods lack fairness consideration. As a consequence, the student model usually inherits and even exaggerates the bias from the teacher GNN. To handle such a problem, we take initial steps towards fair knowledge distillation for GNNs. Specifically, we first formulate a novel problem of fair knowledge distillation for GNN-based teacher-student frameworks. Then we propose a principled framework named RELIANT to mitigate the bias exhibited by the student model. Notably, the design of RELIANT is decoupled from any specific teacher and student model structures, and thus can be easily adapted to various GNN-based KD frameworks. We perform extensive experiments on multiple real-world datasets, which corroborates that RELIANT achieves less biased GNN knowledge distillation while maintaining high prediction utility.